«¿Esto lo escribió un ser humano?»
A medida que la IA generativa se convierte en una herramienta de escritura común, esa pregunta resulta cada vez más difícil de responder.
La empresa estadounidense Anthropic está introduciendo marcas de agua invisibles en los textos generados por sus modelos Claude, una medida destinada a facilitar la identificación del contenido escrito por IA.
La marca de agua no es visible para los lectores y está diseñada para no alterar el significado ni la calidad del texto. En cambio, Claude modifica ligeramente la forma en que selecciona las palabras al generar una respuesta, creando un patrón oculto que las herramientas de detección pueden reconocer.
Esta medida se produce tras la entrada en vigor, el 2 de agosto, de las normas de transparencia de la Ley de IA de la Unión Europea. Dichas normas exigen que los proveedores de determinados sistemas de IA hagan que el contenido generado o manipulado sea detectable por máquina.
Anthropic ha declarado que la marca de agua estará integrada en Claude a nivel de modelo y se aplicará a nivel global.
Esta tecnología podría cambiar la forma en que se identifica la escritura generada por IA.
La mayoría de los detectores de IA actualmente analizan un texto terminado y buscan características asociadas a la escritura por IA, como patrones en la elección de palabras y la estructura de las oraciones. Luego, estiman la probabilidad de que se haya utilizado IA.
Pero el software de detección actual no es 100% preciso.
Una reciente polémica en torno a la exitosa novela Daggermouth puso de manifiesto este problema. Un estudio, aún pendiente de revisión por pares, analizó más de 14.000 libros electrónicos y estimó que aproximadamente el 60% del texto de la novela fue generado por inteligencia artificial.
El autor negó haber utilizado inteligencia artificial generativa, mientras que la editorial Simon & Schuster afirmó que respaldaba la obra.
La marca de agua adopta un enfoque diferente. En lugar de intentar determinar de dónde proviene un texto después de haber sido escrito, el sistema de IA deja una señal oculta mientras lo genera.
Eso podría ofrecer a las editoriales, las escuelas y las plataformas en línea otra forma de comprobar si la IA intervino en la producción de un texto.
Sin embargo, las marcas de agua no son infalibles.
Anthropic ha reconocido que una reescritura, traducción o mezcla extensa del texto generado por Claude con otro material podría dificultar o imposibilitar la detección de la marca de agua.
La ausencia de una marca de agua tampoco prueba que un texto haya sido escrito íntegramente por un ser humano. Un contenido generado por IA podría haber sido editado en gran medida, producido por un sistema sin marca de agua o al que se le haya eliminado dicha marca.
Para imágenes y otros archivos, Anthropic también está adoptando C2PA, un estándar que permite incluir información sobre cómo se creó el contenido digital. Sin embargo, esta información a veces se pierde al editar, convertir o subir un archivo a otra plataforma.
Anthropic no es la única empresa que intenta facilitar el rastreo del contenido generado por IA.
Google ha ampliado su tecnología de marca de agua SynthID a texto, imágenes, audio y vídeo generados por IA. OpenAI y Meta también han explorado marcas de agua y otras herramientas que pueden indicar cuándo se ha utilizado IA en la creación de contenido digital.
La regulación está dando mayor urgencia a estos esfuerzos. Según el artículo 50 de la Ley de IA de la UE, los proveedores de sistemas de IA generativa deben hacer que cierto contenido generado o manipulado por IA sea detectable cuando sea técnicamente factible.
Para la mayoría de los usuarios, las marcas de agua invisibles pueden no suponer una gran diferencia en la forma en que utilizan un chatbot de IA. Aún pueden pedirle que redacte un correo electrónico, resuma un informe o les ayude a escribir un artículo.
Lo que puede cambiar es la facilidad con la que se puede rastrear ese uso posteriormente.
Pero las marcas de agua no pueden responder a todas las preguntas sobre la autoría de la IA. Cada vez más personas utilizan la IA no solo para generar textos completos, sino también para editar, traducir, resumir o generar ideas.
A medida que la escritura humana y la generada por IA se mezclan cada vez más, el mayor desafío puede no ser simplemente decidir si algo fue «escrito por IA», sino comprender cómo se utilizó la IA y quién es, en última instancia, responsable del contenido final.
Fuente: CGTN
